وی بعد از گذراندن تحصیلات ابتدایی و متوسطه در سال ۱۳۴۰ خورشیدی، وارد دانشکده فنی دانشگاه تهران شد و موفق به دریافت درجه فوق لیسانس در رشته الکترونیک گردید.

غرضی در سالهای ۱۳۴۶ و ۱۳۴۷ برای گذراندن دوره‌های تخصصی انتقال و توزیع نیروی برق، عازم فرانسه شد.

وی در سال ۱۳۵۰، به دلیل مخالفت با برنامه‌های رژیم سابق به زندان افتاد و از سال ۱۳۵۳، زندگی سیاسی خود را آغاز کرد و در سال ۱۳۵۵، برای ادامه مبارزات به خارج از کشور رفت و مدتی را در نجف اشرف به مبارزه ادامه داد.

سید محمد غرضی پیش از ترک کشور، به عضویت سازمان مجاهدین خلق ایران درآمد و از رفتن امام خمینی (ره) به پاریس و بازگشت ایشان به ایران، همراه این بزرگوار بود.

وی پس از پیروزی انقلاب سمت‌های مختلف در سپاه پاسداران، استانداری کردستان و استانداری خوزستان عهده‌دار بود و در سال ۱۳۶۰ به عنوان وزیر نفت انتخاب و از سال ۱۳۶۴ تا ۱۳۷۶ به عنوان وزیر پست و تلگراف و تلفن در دولت مشغول به خدمت بود.

سید محمد غرضی همچنین نماینده دوره اول مجلس شورای اسلامی نیز بوده است.

سید محمد غرضی اردیبهشت سال 1392 با حضور در ساختمان وزارت کشور برای کاندیداتوری در انتخابات یازدهمین دوره ریاست‌جمهوری ثبت‌نام کرد.